`a)` Thay `m=\sqrt{3}+1` vào hệ ptr có:

`{(\sqrt{3}x-2y=1),(3x+(\sqrt{3}+1)y=1):}`

`<=>{(3x-2\sqrt{3}y=\sqrt{3}),(3x+(\sqrt{3}+1)y=1):}`

`<=>{((3\sqrt{3}+1)y=1-\sqrt{3}),(\sqrt{3}x-2y=1):}`

`<=>{(y=[-5+2\sqrt{3}]/13),(\sqrt{3}x-2[-5+2\sqrt{3}]/13=1):}`

`<=>{(x=[4+\sqrt{3}]/13),(y=[-5+2\sqrt{3}]/13):}`

`b){((m-1)x-2y=1),(3x+my=1):}`

`<=>{(x=[1-my]/3),((m-1)[1-my]/3-2y=1):}`

`<=>{(x=[1-my]/3),(m-m^2y-1+my-6y=3):}`

`<=>{(x=[1-my]/3),((-m^2+m-6)y=4-m):}`

`<=>{(x=[1-my]/3),(y=[4-m]/[-m^2+m-6]):}`

   Mà `-m^2+m-6` luôn `ne 0`

   `=>AA m` thì đều tìm được `1` giá trị `y` từ đó tìm được `x`

 `=>AA m` thì hệ ptr có `1` nghiệm duy nhất

`c){((m-1)x-2y=1),(3x+my=1):}`

`<=>{(x=[1-my]/3),(y=[4-m]/[-m^2+m-6]):}`

`<=>{(x=(1-m[4-m]/[-m^2+m-6]):3),(y=[4-m]/[-m^2+m-6]):}`

`<=>{(x=[-m^2+m-6-4m+m^2]/[-3m^2+3m-18]),(y=[4-m]/[-m^2+m-6]):}`

`<=>{(x=[-3m-6]/[3(-m^2+m-6)]),(y=[4-m]/[-m^2+m-6]):}`

Ta có: `x-y=[-3m-6]/[3(-m^2+m-6)]-[4-m]/[-m^2+m-6]`

                `=[-3m-6-12+3m]/[-3(m^2-m+6)]`

                `=[-18]/[-3(m^2-m+6)]=6/[(m-1/2)^2+23/4]`

Vì `(m-1/2)^2+23/4 >= 23/4`

`<=>6/[(m-1/2)^2+23/4] <= 24/23`

Hay `x-y <= 24/23`

Dấu "`=`" xảy ra `<=>m-1/2=0<=>m=1/2`

Hệ đã cho vô nghiệm khi

\(m+2=\dfrac{m+1}{3}\ne\dfrac{3}{4}\Leftrightarrow m=-\dfrac{5}{2}\)

\(\left\{{}\begin{matrix}2mx+y=1\\2x-\left(2m+1\right)y=-1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m\left(2m+1\right)y+y=1\\2x=\left(2m+1\right)y-1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}2m^2y+my+y-1=0\\2x=\left(2m+1\right)y-1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}y\left(2m^2+m+1\right)=1\left(1\right)\\2x=\left(2m+1\right)y-1\end{matrix}\right.\)

Để pt có nghiệm duy nhất tức là pt (1) có nghiệm duy nhất

\(\Leftrightarrow2m^2+m+1\ne0\Leftrightarrow m^2+\left(m+\dfrac{1}{2}\right)^2+\dfrac{3}{4}\ne0\) ( luôn đúng )

Vậy với mọi giá trị m thỏa mãn là pt có nghiệm duy nhất.

a) Xét \(a=0\) . Thay vào hệ phương trình ta có:
\(\left\{{}\begin{matrix}3x=5\\2x+y=b\end{matrix}\right.\)\(\Leftrightarrow\left\{{}\begin{matrix}x=\dfrac{5}{3}\\y=b-2x\end{matrix}\right.\)\(\Leftrightarrow\left\{{}\begin{matrix}x=\dfrac{5}{3}\\y=b-\dfrac{10}{3}\end{matrix}\right.\).
Vậy khi \(a=0\) và mỗi giá trị \(b\in R\) hệ có duy nhất nghiệm: \(\left\{{}\begin{matrix}x=\dfrac{5}{3}\\y=b-\dfrac{10}{3}\end{matrix}\right.\).
Vậy \(a\ne0\). Khi đó hệ có vô số nghiệm khi và chỉ khi:
\(\dfrac{2}{3}=\dfrac{1}{a}=\dfrac{b}{5}\).
\(\dfrac{2}{3}=\dfrac{1}{a}\)\(\Leftrightarrow a=\dfrac{3}{2}\); \(\dfrac{2}{3}=\dfrac{b}{5}\)\(\Leftrightarrow b=\dfrac{10}{3}\).
Vậy \(\left(a;b\right)=\left(\dfrac{3}{2};\dfrac{10}{3}\right)\) thì hệ có vô số nghiệm.

b) Xét a = 0. Thay vào hệ phương trình ta có:
\(\left\{{}\begin{matrix}2y=0\\3x-4y=b+1\end{matrix}\right.\)\(\Leftrightarrow\left\{{}\begin{matrix}y=0\\x=\dfrac{b+1+4y}{3}\end{matrix}\right.\)\(\Leftrightarrow\left\{{}\begin{matrix}y=0\\x=\dfrac{b+1}{3}\end{matrix}\right.\).
Vậy khi a = 0 và với mỗi \(b\in R\) hệ phương trình có nghiệm duy nhất là: \(\left\{{}\begin{matrix}y=0\\x=\dfrac{b+1}{3}\end{matrix}\right.\).
Vậy \(a\ne0\). Khi đó hệ có vô số nghiệm khi:\(\dfrac{3}{a}=\dfrac{-4}{2}=\dfrac{b+1}{a}\).
\(\dfrac{3}{a}=\dfrac{-4}{2}\)\(\Rightarrow a=\dfrac{-3}{2}\); \(\dfrac{-4}{2}=\dfrac{b+1}{a}\)\(\Rightarrow b=-2a-1\)\(\Leftrightarrow b=2\).
Vậy \(\left(a;b\right)=\left(\dfrac{-3}{2};2\right)\) hệ có vô số nghiệm.